Pada 4 Mac 2004, Kohler melepaskan jawatannya dalam IMF selepas dicalonkan oleh pembangkang liberal konservatif dan pihak Jerman sebagai calon presiden mereka. Kohler mengalahkan Gesine Schwan dalam pungutan suara dengan 604 suara berbanding Gesine Schwan - 580. Ahli perwakilan seramai 1204 orang.

Kohler berjaya menewaskan Johannes Rau sebagai Presiden pada 1 Julai 2004, untuk tempoh lima tahun. Dari 2004-2006, Istana Charlottenburg sedang diubahsuai.Begitu juga Schloss Bellevue sedang direnovasi.

Pada 22 Mei 2008, Kohler mengumumkan pencalonannya untuk kali kedua sebagai presiden. Pada 23 Mei 2009, beliau terpilih kembali oleh Majlis Persekutuan .Dia kembali menjadi Presiden Jerman pada 1 Julai 2009.